Mundo
Empresa hackeada por modelos da OpenAI vê incidente como um "alerta"
Um dos fundadores da Hugging Face, a startup tecnológica que foi pirateada por modelos de inteligência artificial (IA) mais avançados da OpenAI, não tem dúvidas de que o incidente é "um alerta" para o setor.
No programa de rádio Newsday da BBC, Thomas Wolf afirmou que "este será um dos tipos mais comuns de ataques cibernéticos que veremos" e que a maioria das empresas não está ciente de que "o jogo mudou".
Atualmente, os modelos de IA são capazes de operar sozinhos para realizar tarefas após receberem instruções humanas. O cofundador da Hugging Face explicou que a empresa, inicialmente, não tinha ideia de onde o ataque tinha surgido quando os primeiros indícios apareceram em meados de julho, mas que conseguiu conter a violação.
A Hugging Face é um dos maiores centros de código aberto do mundo para partilha de modelos de IA e é frequentemente usada por investigadores e especialistas em tecnologia.
Num "curtíssimo período de tempo", foram detetados 17.000 ataques à rede da Hugging Face a partir de diversos endereços IP. O também diretr científico da empresa sublinhou que isto serve de alerta para outras empresas de que precisam de fortalecer os níveis de segurança cibernética para combater tais ataques.
O ataque é "preocupante" porque sugere que os modelos da OpenAI ignoraram as salvaguardas típicas que impediriam um programa de IA de cometer um ataque cibernético, considerou também Nate Soares, do Instituto de Pesquisa de Inteligência de Máquina.
"De certa forma, sabia que não era essa a intenção dos criadores. Simplesmente não se importou", acrescentou, em declarações à BBC.
Atualmente, os modelos de IA são capazes de operar sozinhos para realizar tarefas após receberem instruções humanas. O cofundador da Hugging Face explicou que a empresa, inicialmente, não tinha ideia de onde o ataque tinha surgido quando os primeiros indícios apareceram em meados de julho, mas que conseguiu conter a violação.
A Hugging Face é um dos maiores centros de código aberto do mundo para partilha de modelos de IA e é frequentemente usada por investigadores e especialistas em tecnologia.
Mas segundo Wolf, esta violação foi "muito diferente" dos ciberataques que a Hugging Face costuma enfrentar. Apesar de considerar um “alerta”, o empresário confirmou que a OpenAI informou rapidamente de que eram os seus modelos que estavam por trás do ataque.
À emissora britânica, a empresa criadora do ChatGPT explicou que os modelos de IA escaparam de um ambiente de teste seguro durante um uma experiência e lançaram um ataque cibernético. A OpenAI garantiu, na altura, que se tratou de um incidente "sem precedentes" e que está a investigar o sucedido em conjunto com a Hugging Face.
Num "curtíssimo período de tempo", foram detetados 17.000 ataques à rede da Hugging Face a partir de diversos endereços IP. O também diretr científico da empresa sublinhou que isto serve de alerta para outras empresas de que precisam de fortalecer os níveis de segurança cibernética para combater tais ataques.
O ataque é "preocupante" porque sugere que os modelos da OpenAI ignoraram as salvaguardas típicas que impediriam um programa de IA de cometer um ataque cibernético, considerou também Nate Soares, do Instituto de Pesquisa de Inteligência de Máquina.
"De certa forma, sabia que não era essa a intenção dos criadores. Simplesmente não se importou", acrescentou, em declarações à BBC.
